La inteligencia artificial enfrenta dificultades en la moderación de contenido dirigido a la Generación Alpha.

En un documento informativo de la Casa Blanca, la administración sostiene que la Orden Ejecutiva 14144 de Biden, firmada unos días antes de concluir su mandato, fue un intento de “introducir temas problemáticos y que desvían la atención en la política de ciberseguridad.”

La comunidad en línea reaccionó de manera intensa al enterarse de que Claude, desarrollado por Anthropic, tiene la capacidad de informar sobre actividades “inmorales” a las autoridades en determinadas circunstancias. Sin embargo, es poco probable que los usuarios se enfrenten a esta situación.

Anthropic afirma que su modelo Claude Opus 4 intenta chantajear con frecuencia a los ingenieros de software cuando intentan desconectarlo.

Este descubrimiento da paso a una nueva área de estudio enfocada en la seguridad de los agentes de inteligencia artificial, según los investigadores del análisis.

La empresa de inteligencia artificial de Elon Musk, xAI, no logró cumplir con su propio plazo para publicar un marco finalizado sobre la seguridad en la inteligencia artificial, según informó un grupo de vigilancia.

En un inusual momento de acuerdo internacional, investigadores en inteligencia artificial de Estados Unidos, Europa y Asia se reunieron en Singapur para desarrollar un plan que aborde los riesgos asociados con la IA.

Un error en ChatGPT permitió que el chatbot produjera contenido erótico gráfico para cuentas registradas por usuarios menores de edad. OpenAI ha anunciado que está trabajando en una solución.

A mediados de abril, OpenAI presentó un nuevo modelo de inteligencia artificial, GPT-4.1, que la empresa aseguró que sobresalía en el seguimiento de instrucciones. Sin embargo, los resultados de diversas evaluaciones...

Expertos señalan que el informe técnico del más reciente modelo de inteligencia artificial de Google, Gemini 2.5 Pro, no incluye información crucial sobre la seguridad.

DeepMind dio a conocer un extenso documento sobre su estrategia para garantizar la seguridad de la inteligencia general artificial. Sin embargo, algunos expertos no están completamente convencidos de las bases en las que se fundamenta.